Le 29 septembre 1873, deux jeunes gens, Louis Wegmann (1861-1920), futur étudiant en philosophie, et son cousin, Henri Grasset (1860-1902), décident de fonder le Club des Grimpeurs de Genève (ci-après le Club), lors d'une course au sommet du Salève, à la Tour des Pitons. Jacques Grasset (? -1935), le frère d'Henri, les rejoint, le 4 octobre.
Durant quatre ans, l'existence du Club demeure confidentielle, selon le voeu de ses fondateurs. A partir d'octobre 1877, il s'ouvre progressivement, d'abord à des proches, puis plus largement à de nouveaux membres. Le Club en compte une quinzaine en 1878. A cette époque, il n'existe à Genève que très peu de sociétés de montagne. Le Club alpin suisse (CAS), dont la section genevoise est fondée le 21 février 1865, est considéré comme assez fermé, réservé à une « élite ». Le Club des Grimpeurs de Genève semble, quant à lui, accessible à des gens de condition plus modeste.
Les premières séances officielles ont lieu en octobre 1877, rue du Conseil-Général 8, au domicile du secrétaire, Frédéric Céret, adopté comme local ordinaire jusqu'en juin 1879, avant que le Club ne s'installe dans un local qu'il louera au 20, rue du Marché. C'est à cette époque qu'il commence à se structurer et à s'organiser : les premiers statuts et règlements y sont élaborés.
Ces derniers prévoient la création de sections en dehors de Genève. Le 25 octobre 1877, Gustave Maillard, Emile et Daniel Meylan, trois étudiants, fondent officiellement la section lausannoise. Emile Meylan en prend la présidence. Elle compte sept membres, majoritairement des étudiants, mais semble ne pas avoir survécu après 1880. L'existence de la section neuchâteloise est plus brève encore : constituée le 16 janvier 1878 par Henri Grandjean, elle est dissoute le 17 avril de la même année. D'autres projets, notamment au Sentier, sont abandonnés, ce qui met fin aux aspirations d'organisation faîtière du Club, par la création d'une section centrale chapeautant les sections locales.
La première assemblée générale a lieu le 2 mars 1878 et donne lieu à l'élection du comité. Louis Wegmann, Henri Grasset et Frédéric Céret sont confirmés respectivement dans leur fonction de président, vice-président-caissier et secrétaire du Club.
L'acte de fondation du Club, signé le 29 septembre 1873, définit ainsi son but : « ...faire des ascensions dans les montagnes environnantes du canton de Genève et des courses dans le pays d'alentour... ». Les premières courses ont lieu au Salève et passent par les communes haut-savoyardes situées aux environs. D'autres courses ont lieu dans la campagne genevoise et dans le Jura.
Au tournant du siècle, le Club compte moins de cinquante membres, une soixantaine en 1917. Le développement du chemin de fer, puis plus tard des transports motorisés, permettent d'élargir progressivement la zone géographique des courses, non seulement en Haute-Savoie (Faucigny, Aravis), en Savoie (Tarentaise) mais également dans le Chablais valaisan et du côté italien du Cervin.
Dans les années 1920 et 1930, le programme des courses s'étoffe. Le Mont-Blanc, la Dent Blanche, le Cervin sont des destinations prisées. Les courses d'hiver, notamment les courses à ski effectuées dans le Beaufortin, la Vanoise, la Vallée d'Aulps, sont plus suivies que celles d'été. En août 1923, la course du cinquantenaire a lieu à Tré-la-Tête, dans le Massif du Mont-Blanc.
En 1928, le Club inaugure un chalet aux Carroz, en Haute-Savoie, dont les travaux de rénovation et de réaménagement sont effectués par les membres. De nombreuses sorties, souvent en famille, y sont organisées, de même que des concours de ski. En 1933, une plaque commémorative est posée aux Pitons pour le soixantième anniversaire du Club.
Durant la Seconde Guerre Mondiale, la fermeture des frontières n'est pas sans conséquence pour le Club. Peu de courses sont organisées et toutes ont lieu en Suisse. Après-Guerre, il faudra du temps aux membres pour renouer des liens distendus et reprendre leurs activités.
Dans les années 1960, le Club est vieillissant et peine à mobiliser ses membres, notamment les jeunes. En 1969, seules quatre courses sont effectuées, alors que le Club compte plus de quatre-vingts membres. La création de la semaine Garcin, grâce à un don de Paul Garcin à l'occasion du cinquantième anniversaire de son adhésion, l'organisation d'une course d'escalade artificielle, le projet de relancer les cours de varappe au Salève à destination des jeunes et de proposer des cours de ski aux membres sont autant de tentatives de redonner vie au Club. Le nonante-cinquième anniversaire du Club a lieu à Zermatt en mai-juin 1968.
La décennie suivante est marquée par une reprise des activités liées aux courses, par l'organisation du centième anniversaire du Club à Pontresina, aux Grisons, et surtout par la révision des statuts, le 31 mars 1977, permettant enfin l'admission des femmes.
Dans les années 1980, le Club connaît des problèmes de locaux l'obligeant à se séparer de sa bibliothèque et à déménager ses archives. Il compte une petite centaine de membres. Dans les années 1990, les assemblées ne rencontrent guère de succès. Les sorties en famille sont privilégiées au détriment de courses plus exigeantes. A la fin de la décennie, et pour la première fois depuis longtemps, le Club est déficitaire. Il ne parvient pas à attirer de nouveaux membres, notamment les jeunes qui ne se reconnaissent pas dans ses structures.
Les années 2000 seront celles du déclin malgré les efforts des membres du comité. Dans le courant de l'année 2008, le Club se voit contraint de libérer le local loué au Café des Banques. Il n'a plus d'adresse et est désormais domicilié chez son président de l'époque, Luc Lorenz. En 2010, la dissolution est envisagée une première fois, lors d'une assemblée générale qui se tient au Café des Semailles, au Grand-Lancy. Elle est finalement repoussée et un nouveau comité tente vainement de relancer les activités du Club.
Le 23 mai 2013, l'assemblée générale vote, à l'unanimité, la dissolution du Club des Grimpeurs de Genève au 31 décembre 2014. Le cent-quarantième anniversaire du Club est célébré en 2014 par l'organisation de la semaine Garcin en Sicile et ses fonds sont légués à une dizaine d'associations de montagne.